AI PC 人工智慧 神兵利器
-
NetApp在INSIGHT 2023展示人工智慧和安全基礎架構的最新進展
以雲端為主導、以資料為中心的跨國軟體企業NetApp (NASDAQ: NTAP)今天宣布了多項創新產品組合更新,包括強化針對混合多雲人工智慧(AI)的業界最佳資料管道,以及升級針對勒索軟體的最安全資料儲存服務。這些更新顯示,NetApp業界領先的解決方案可以為客戶帶來簡易性、成本節省性、安全性和永續性。 NetApp產品長Harv Bhela表示:「如今的客戶面臨兩大挑戰:人工智慧的機遇和勒索軟體的威脅。NetApp今天發布了新的創新技術,使AI資料管道的部署變得簡單,並使客戶混合多雲端資料資產具有可擴充性和高性能,同時保護相同的資料免受日益增長的威脅。這些解決方案使我們在為客戶創造成功的人工智慧業務成果方面處於領先地位。」 為了保持競爭力,企業必須透過其AI計畫進行創新並提高效率。但當大量不同的資料在一個五階段的管道中自由流動時,企業可能很難從中獲得有意義的結果。為這些管道提供資料的資料集可能存在於企業的整個資料湖,包括企業本地和/或雲端部署的資料湖。這就增加了設計和操作的複雜性,資料孤島也導致資料類型和位置缺乏可視性,使其難以管理或應用於AI工作負載。 身為混合多雲領域的領導者,NetApp透過提供高效能全快閃記憶體和雲端儲存來緩解這種複雜性,使客戶能夠建構現代資料湖並加速AI應用。使用者可以將生產中的多個AI模型版本追溯到各自的訓練資料,以確保他們以負責任方式使用AI,並且儲存方案與MLOps平台整合,從而使資料科學家獲得更輕鬆的消費體驗和更高的生產力。 ONTAP AI融合基礎架構堆疊利用全球最成功的AI超級計算系統NVIDIA DGX,使各地企業能夠透過基礎架構解決方案因應最複雜的AI工作負載,從而消除設計和部署的複雜性。今天,NetApp宣布在ONTAP AI架構中加入具備容量快閃記憶體的AFF C系列,以提高經濟性和永續性。 NVIDIA DGX平台副總裁Charlie Boyle表示:「企業要想利用生成式AI的強大功能,就需要一個平台。該平台能夠利用其龐大的業務資料語料庫,根據其獨特的詞彙、智慧財產權和產業提供完全客製化的模型。在NVIDIA DGX系統和NVIDIA AI Enterprise軟體的支援下,NetApp ONTAP AI透過利用可擴充、高效、可快速部署的基礎架構解決方案,使企業能夠利用其資料提供生成式AI應用。」 NetApp持續建構AI資料管道,將其整合到三大公有雲,以達成真正的混合多雲體驗。在 NetApp INSIGHT 2023 大會上,Google Cloud執行長Thomas Kurian談到了NetApp與他所在公司之間的持續創新與合作,並強調了2023年8月推出的Google Cloud NetApp Volumes。今天,NetApp和Google宣布透過Google Cloud NetApp Volumes支援Google Cloud的Vertex AI,以支援混合生成式AI應用。 NetApp Cloud Volumes 業務的資深副總裁暨總經理Ronen Schwartz表示:「Google Cloud NetApp Volumes於今年8月推出,它徹底改變了雲端的企業工作負載,將儲存效能提高至新的水準,同時又具有簡單、靈活的優勢。對於投資於生成式AI資料管道的客戶而言,該產品支援NetApp內部資料直接連接到Google Cloud NetApp Volumes上的Google Vertex AI,無需額外的工程設計。」 憑藉Google Cloud NetApp Volumes,NetApp成為唯一一家既能在本地提供企業儲存產品,又能在三大公有雲平台(還包括Amazon AWS和Microsoft Azure)以原生第一方服務的形式提供相同企業儲存產品的公司。 隨著雲端機器學習技術的發展,已支持Amazon FSx for NetApp ONTAP的Amazon Sagemaker將增加Amazon Sagemaker筆記本功能。它可以透過原生S3對象協議存取AWS FSx for NetApp ONTAP——即使是最初以NFS檔案格式儲存在企業本地或其他雲端中的資料也能被存取。 IDC歐洲區雲端資料管理研究總監Archana Venkatraman表示:「生成式AI是一種強大的工具,具有幫助企業實現變革性業務洞察和運營效率的潛力。然而,AI工作負載的強大與否取決於其接收到的資料。公司需要統一資料管理的堅實基礎,以確保資料暢通無阻地流向各自的AI基礎設施。NetApp的最新創新顯示,在過去五年來 ,NetApp一直在深入、專注地思考如何幫助企業收集、準備和管理其資料,無論這些資料存在於何處。這種根深蒂固的方法反映了企業如何在本地、混合和公有雲環境中建構AI基礎架構和儲存資料的現狀。」 2023年,絕大多數勒索軟體攻擊造成的損失在100萬美元到225萬美元之間 (約新台幣3,200萬元至7,200萬元之間)。為緩解這一問題,NetApp利用業界最安全的儲存方案幫助客戶保護自身及其資料,並提供首屈一指的勒索軟體恢復保證。 利用ONTAP 關鍵內建安全和勒索軟體保護功能的獨特組合,ONTAP可透過多管理員自動驗證封鎖已知惡意檔案、管理員和用戶,並提供即便是儲存管理員也無法刪除的防篡改快照。憑藉業界領先的威脅偵測功效,ONTAP的自主勒索軟體保護可近乎即時地偵測到攻擊,拍攝額外快照,並在數分鐘內進行恢復。 今天,NetApp擴展了其勒索軟體恢復保證服務,適用於所有以NetApp ONTAP為基礎的本地部署儲存系統,包括NetApp AFF、ASA和FAS。有了這項保證,NetApp將確保在發生勒索軟體攻擊時恢復快照資料。如果資料副本無法透過NetApp或其值得信賴的合作夥伴恢復,NetApp將提供補償*。 芝浦工業大學的Takeshi Sato表示:「NetApp的客戶可以利用他們的資料,促成敏捷的應用交付,同時保持韌性和治理,以確保業務連續性。這些更新確保了NetApp在抵禦勒索軟體方面成為業界最安全的資料儲存方案。」 NetApp 全球副總裁暨大中華區、東南亞及韓國地區總裁張思華表示:「如今,台灣的企業面臨著複雜的技術環境,新興技術如人工智慧崛起,同時也伴隨著不斷升級的網絡安全風險。要充分發揮人工智慧的變革力量,我們需要構建一個穩健、可擴展且安全的下一代資料管道。通過利用NetApp的人工智慧和資料安全增強功能,我們可以協助企業優化資料無縫移動並加速資料工作負載的處理。」 在提供勒索軟體恢復保證的同時,NetApp還透過勒索軟體保證服務讓客戶多一份安心,該服務有助於確保客戶的系統免受勒索軟體攻擊,並能驗證客戶對安全資料快照的設定,以及進行恢復測試。憑藉隨時待命的專屬團隊,客戶在面臨攻擊時可以依靠NetApp協助恢復資料。 NetApp及其合作夥伴在整個基礎架構堆疊中推動安全性和韌性。例如,NetApp與Cisco的合作為FlexPod融合基礎架構提供了一系列安全架構,其中包括勒索軟體恢復和安全分段。 此外,NetApp還發布了一款針對VMware的新災難恢復(DR)解決方案的公開預覽。該方案直接整合到NetApp BlueXP統一控制平台中。NetApp為VMware基礎架構提供了唯一可在本地和各大公有雲使用的儲存方案。NetApp可為從本地到雲端的災難恢復提供統一解決方案,儘量降低提供備用災難恢復基礎架構的成本。借助新的NetApp BlueXP DR for VMware解決方案,只需幾個簡單的步驟即可輕鬆地從本地VMware基礎架構直接切換到公有雲的容錯移轉和故障恢復(最先轉移至AWS FSx for NetApp ONTAP)或轉移到另一個本地資料中心。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
華擎推出WRX90及TRX50主板為創作者及AI應用打造卓越生產力
全球主機板廠領導品牌華擎科技隆重宣布推出WRX90 WS EVO及TRX50 WS高階主機板,支援最新AMD Ryzen™ Threadripper™ 7000系列及 AMD Ryzen™ Threadripper™ PRO 7000 WX系列處理器,為專業創作者及AI應用打造絕佳效能平台。ASRock WRX90 WS EVO及TRX50 WS支援8通道、4通道記憶體插槽,支援最高容量2TB的DDR5 ECC RDIMM記憶體,內建PCI-Express 5.0 x16插槽及伺服器應用友善的Slim-SAS與MCIO連接埠,以及10Gbps LAN網路介面,打造卓越連接性能的工作站平台,完美支援專業創作、影像渲染等高強度運算應用,更能勝任機器學習、深度學習、生成式AI等AI應用需求。 為了確保AMD Ryzen Threadripper 7000系列及 AMD Ryzen Threadripper PRO 7000 WX系列處理器在任何高負載任務都能保持運作穩定耐久,ASRock WRX90 WS EVO及TRX50 WS主機板均採用伺服器級超低損耗12層2OZ PCB及18+3+3相SPS Dr.MOS VRM設計,搭配超大型鋁擠散熱片結合主動散熱風扇及熱導管的複合散熱設計,提供絕佳的供電性能與散熱效率,即便面對長時間高強度工作負荷也能穩定耐用、使命必達。 AMD Threadripper 7000系列及Threadripper PRO 7000 WX系列處理器提供了充足的高速PCIe傳輸通道,WRX90 WS EVO共有128條PCIe 5.0通道,TRX50 WS共有48條PCIe 5.0通道與32條PCIe 4.0通道。二款新主板都提供豐富的高速介面規格,包括最多7組PCIe x16插槽,以及Blazing M.2插槽(PCIe Gen5 x4)、MCIO連接埠(PCIe Gen5 x4)、Slim-SAS(SFF-8654) 連接埠等,提供充裕擴充能力,帶給使用者兼具豐富介面與高速效能的解決方案。 快速且高效率的大檔傳輸性能對專業創作者來說是至關重要且不容妥協,ASRock TRX50 WS搭載Marvell® 10Gbps LAN與Realtek 2.5Gbps LAN,無論是區網共享資料或是連線雲端伺服器,都能享受高速傳輸及高效優勢。TRX50 WS也內建802.11ax WiFi 6E無線網路及2x2無線天線,讓使用者同時擁有高速低延遲傳輸及無線便利的雙重體驗。 而WRX90 WS EVO提供豐富網路介面更適合進階應用,搭載2組Intel X710 10Gbps LAN,提供極致網路傳輸速度與穩定性能,並內建AST2600 BMC遠端伺服器管理晶片,透過IPMI介面提供遠端管理功能,更加符合機櫃安裝的使用需求。 想瞭解更多產品訊息,請上華擎官方網站: https://asrock.com/MB/AMD/TRX50%20WS/index.asp →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
聯想與 NVIDIA 發布混合式人工智慧解決方案, 協助企業快速採用生成式人工智慧
NVIDIA (NASDAQ: NVDA) 和聯想 (HKSE: 992) (ADR: LNVGY) 今天宣布擴展合作夥伴關係,提供全新的混合式解決方案和工程合作,以支持雙方共同願景,將生成式人工智慧的力量帶給每一家企業。 透過與NVIDIA的密切合作,聯想將提供完全整合的系統,從邊緣至雲端環境,將人工智慧驅動的運算帶到任何產生資料之處,幫助企業輕鬆部署客製化的生成式人工智慧應用程式,以推動所有產業的創新和轉型。 聯想集團董事長兼執行長楊元慶和NVIDIA創辦人暨執行長黃仁勳在德州奧斯汀舉行的年度全球聯想創新科技大會(Tech World)主題演講中介紹這些產品,並討論企業對端到端解決方案的需求,這些解決方案整合了加速系統、人工智慧軟體和專家服務,以便迅速使用他們自己的資料建立和運行定制的人工智慧模型。 在新的聯想AI Professional Services Practice支持下,這些解決方案使企業能夠採用混合雲的方法,利用NVIDIA AI Foundations雲端服務來建構自定義的人工智慧模型,並在NVIDIA為生成式人工智慧設計的最新軟硬體驅動下,於本地端聯想系統內運行。 聯想基礎設施解決方案集團總裁 Kirk Skaugen 表示:「聯想和NVIDIA正在共同推動企業混合式人工智慧的新時代,設計下一代技術,打造人工智慧驅動的未來,並在任何產生資料之處釋放它們的力量。聯想與NVIDIA在工程設計和上市時間方面擴大合作,簡化了所有人採用生成式人工智慧的途徑,並協助任何地方的客戶快速使用尖端人工智慧達成業務轉型。」 NVIDIA 企業平台副總裁Bob Pette表示:「隨著生成式人工智慧驅動著當代最偉大的技術轉型,企業正在尋求能夠讓他們靈活地跨工作站、資料中心及雲端開發和部署工作負載的解決方案。NVIDIA 和聯想正在提供全面的混合式人工智慧系統產品組合,企業可以依靠這些系統在幾乎任何地方為生成式人工智慧提供動力。」 聯想採用 NVIDIA 技術的系統經過最佳化,可運行 NVIDIA AI Enterprise 軟體,以實現安全、可支援且穩定的生產人工智慧。透過 NVIDIA AI Enterprise中的 NVIDIA NeMo框架,組織可以自訂在 NVIDIA AI Foundation 上提供的企業級大型語言模型。使用最新的檢索增強生成模型(RAG)技術和微調方法,企業可以使用其獨特的企業內資料建構最佳化生成式人工智慧應用程式,執行在聯想的混合式人工智慧解決方案上。 兩家公司擴大合作關係的核心是Lenovo ThinkSystem SR675 V3伺服器和ThinkStation PX 工作站,它們針對運行 NVIDIA AI Enterprise 的生產人工智慧進行了最佳化。ThinkSystem SR675V3將包含NVIDIA L40S GPU、NVIDIA BlueField-3 DPU 和 NVIDIA Spectrum™-X網路。ThinkStation PX 將透過在系統中啟用多達4 個 NVIDIA RTX 6000 Ada GPU,為桌上型電腦帶來擴展的人工智慧功能和資料中心效能。 此外,聯想和NVIDIA將基於靈活的NVIDIA MGX™模組參考設計打造下一代系統,提供多種強大且安全的解決方案,以處理最具挑戰性的生成式人工智慧工作負載,並協助企業使用NVIDIA Omniverse™實現大規模的沉浸式模擬和認知決策。NVIDIA Omniverse是一個連接和開發OpenUSD應用的平台。 聯想的解決方案還將支援最近宣布與NVIDIA合作的VMware Private AI Foundation,使數十萬名VMware客戶能夠簡化生成式人工智慧的採用。 兩家公司共同協助企業充滿信心地輕鬆部署人工智慧,並透過新的聯想AI Professional Services Practice和聯想的TruScale aaS產品開啟由人工智慧驅動的轉型,該產品使企業能夠利用隨用隨付模式。 聯想AI Professional Services Practice提供廣泛的服務、解決方案和平台,協助各種規模的企業駕馭人工智慧領域,找到合適的解決方案,並讓人工智慧快速、經濟高效地大規模應用於其組織。它有助於將人工智慧從概念變為現實——從設計人工智慧路線圖到部署平台,再到透過聯想TruScale Hub提供技術使用的透明度。 欲了解更多訊息,請觀看楊元慶和黃仁勳在Tech World ’23的影片。 欲了解聯想和NVIDIA如何合作致力於打造更智慧、更快速的未來,請參考https://www.lenovo.com/us/en/servers-storage/alliance/nvidia/ →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
AAEON新推搭載NVIDIA Jetson Orin NX的邊緣AI系統: BOXER-8652AI
專業物聯網及人工智慧邊緣運算平臺研發製造大廠—研揚科技(股票代碼: 6579),日前發表一款採用NVIDIA Jetson Orin NX模組的無風扇嵌入式人工智慧系統: BOXER-8652AI。 這款BOXER-8652AI充分發揮了NVIDIA Jetson平台的功能,在研揚研發團隊專業設計下的這款新品,配備了許多適用於智慧零售應用的功能。其中包括兩個超高速乙太網路連接埠,以及兩個USB32. Gen.2和兩個USB2.0 Type-A連接埠,可連接多個攝影機,來分析消費者購買行為。其次,BOXER-8652 可裝置WiFi/4G/5G 等無線網路,提供靈活便利的傳輸架構。而豐富的CANBus,DIO和RS-232/422/485控制介面,更可讓使用者易於控制裝置,讓消費者擁有更舒適的購買環境。 憑借整合NVIDIA Jetson Orin NX,BOXER-8652AI充分發揮了1024核心NVIDIA Ampere架構GPU和32個Tensor core的優越人工智慧性能,同時可執行多種人工智慧演算法,例如: 消費者店內瀏覽軌跡,產品陳列熱區,年齡性別分析,結帳排隊長短,無人結帳等等。 BOXER-8652AI的尺寸僅只5.98吋 x 3.78吋 x 2.42吋(152mm x 96mm x 61.5mm),雖然體積小巧,但可彈性擴充也是這項新品的特色之一,包括一個M.2 2280 M-Key,可供靈活固態硬碟儲存擴充,此外,M.2 2230 E-key和M.2 3042/3052 B-Key則可支援Wi-Fi和5G模組彈性配置。 BOXER-8652AI的推出將有助於AAEON在全球範圍內加強NVIDIA Jetson Orin NX模組和開發者套件全系列產品的競爭優勢。例如之前發表的BOXER-8640AI和BOXER-8641AI,是採用NVIDIA Jetson AGX Orin模組,還有採用NVIDIA Jetson Orin Nano模組的BOXER-8621AI。讓用戶可以廣泛選擇符合需求的NVIDIA Jetson Orin系列產品。 「NVIDIA持續推動不同領域的創新,身為菁英級夥伴的研揚科技也同步搭配NVIDIA來進行最新技術的採用與設計,讓最新的科技展現在世人面前,也為客戶無縫接軌的進行系統更新。」研揚科技智能系統產品處資深協理薛紹周表示。「研揚是工業邊緣AI系統領域的先驅,可為客戶提供一系列基於NVIDIA Jetson平臺的邊緣AI解決方案。同時,研揚憑藉豐富的ODM/OEM經驗,讓客戶可依照應用所需,來提供專業的服務。」薛紹周補充說道。 更多BOXER-8652AI的產品資訊,您可以上研揚官網查詢,也可以與研揚科技國內業務處02-89191234分機1142劉小姐聯繫。現在BOXER-8652AI也同時在研揚eShop上販售,有小量需求的客戶,也可透過eShop購買。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
驚豔東京的台灣奇蹟!技嘉將展出AI伺服器旗艦機
2023年第四屆AI Expo Tokyo.秋暨第十四屆Japan IT Week.秋即將於10月25日展開,為期三天至10月27日止!技嘉科技集團旗下子公司技鋼科技此次參展規模超越以往,並擴展戰線從AI Expo到Japan IT Week兩個主題展區,今年首次攜手系統整合商ScaleWorX於AI Expo展共同展出,冀望藉由雙方的合作以深化對日本地區針對高效能運算以及人工智慧領域的客戶經營與服務力道。除此之外,於 Japan IT Week的IoT Solution主題區在SHINDEN HIGHTEX CO.攤位展出今年10月甫上市的AMD EPYC 8004與AMD Ryzen 7000系列伺服器,以及其他針對中小型企業應用或是5G、電信網路終端服務、邊緣運算應用的伺服器產品!展覽豐富且完整,從人工智慧到雲端服務應用、與在地夥伴攜手合作提供一站到位的服務,誠摯邀請您蒞臨參觀! 人工智慧旗艦機種G593-SD0:隨著GPT-3的問世與卓越表現,人工智慧應用不再遙不可及。這類從千億參數開始起跳的大模型,推動了計算機的運算效能與規模的巨大增長,促使市場對GPU加速運算的需求急速增溫,催生出今天單機超級電腦乃至於叢集運算設備的銷售模式。技嘉科技作為市場上最早推動GPU加速運算的伺服器供應商,更是首批能提供NVIDIA H100 HGX的伺服器供應商,G593-SD0橫空出世,更在今年6月底公布的MLPerf Training v3.0中展現其優越性能,一舉拿下醫療影像分割與自然語言處理的第一名!此主題區內還有兩款支援NVIDIA Grace CPU超級晶片的H263-V60,與NVDIA Grace Hopper™ 超級晶片的H263-V11,適用於大規模的旗艦人工智慧和高效能運算應用。 今年10月剛上市的R243-EG0,支援AMD EPYC 8004系列處理器,憑藉Zen 4c核心架構的優化,擁有EPYC產品線中擁有最低功耗表現,是為雲端、邊緣運算與電信終端服務應用而推出!R123-C00支援AMD Ryzen 7000系列處理器,採用5奈米製程技術,作為入門級應用的選擇方案之一;除了高性價比的入門級企業解決方案之外,還有搭載Intel Xeon W系列處理器,針對專業創作者設計,為媒體和娛樂、工程和資料科學專業人士所推出,的專業級工作站W773-W80。 從人工智慧到雲端服務應用、從資料中心到專業創作者以及在地化服務,10月25日至10月27日,技鋼科技準備好在為期三天的第四屆AI Expo Tokyo.秋暨第十四屆Japan IT Week.秋中與您相見,歡迎到我們與夥伴的展位上參觀了解! →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
英特爾推出業界首個 AI PC加速計劃
英特爾在Innovation 2023 大會上分享了AI PC使用案例後,今日宣布啓動AI PC加速計劃(AI PC Acceleration Program),透過這項全球創新計劃以加速AI在整體PC產業的發展。 AI PC加速計劃為獨立硬體供應商(IHV)及獨立軟體供應商(ISV)串聯英特爾的資源,包括 AI工具鏈、共同開發、硬體、設計資源、技術專業和共同行銷機會。這些資源能夠幫助生態系合作夥伴充分利用Intel Core Ultra處理器的技術和相容硬體,將AI和機器學習(ML)的應用效能最大化;催生出全新的使用案例,讓AI PC生態系的解決方案能夠連結到更廣泛的 PC 產業。更多訊息,請瀏覽 AI PC 加速計劃網站。 AI PC的出現是PC 產業的重要轉捩點,越來越多軟體透過AI和 ML 演算法強化自身應用功能,這些應用讓大眾能更簡單的創作藝術、音樂、學習知識與提升工作效率。英特爾憑藉中央處理器(CPU)、圖形處理器(GPU)和神經網路處理器(Neural Processing Unit, NPU)的強大架構,將人工智慧軟體的效能和能源效率最佳化。 英特爾執行副總裁兼客戶端運算事業部總監Michelle Johnston Holthaus表示,「軟體領導力是AI PC 體驗的關鍵,英特爾擁有獨特的優勢,以打造開放的生態系方式領導產業發展。運用在 AI開發領域具備豐富經驗及深厚的ISV工程關係網路,英特爾將在促進連結與創新上扮演積極的角色,推動全新的PC使用案例和體驗。」 AI PC加速計劃將由英特爾經驗深厚的工程技術人才,協助各項基於 ISV 需求的特定軟體優化及調整、核心開發工具和 OpenVINO™ 等軟體開發套件,以及產品上市機會。 英特爾將與 超過100 家的 ISV 合作夥伴發展 300 多項AI加速功能,包括 Adobe、Audacity、BlackMagic、BufferZone、CyberLink、DeepRender、MAGIX、Rewind AI、Skylum、Topaz、VideoCom、Webex、Wondershare Filmora、XSplit、Zoom。 AI PC加速計劃的首批合作夥伴分享: • Audacity 產品負責人Martin Keary:「Audacity 非常高興能與英特爾合作,為廣大AI PC用戶帶來強大、開放式、而且免費的AI工具。我們希望這類計劃在未來能創造一個全新的創作環境,造福作曲家、Podcast製作人和音響玩家,讓過去 20 年的傳統音訊工具轉型。我們希望這會是 Audacity 未來許多成功AI計劃的先例,也期許 Audacity 成為研究者展示工作成果的綜合樞紐,為用戶提供豐富多樣、令人驚嘆的全新 AI 工具,並提供試用。」 • Blackmagic Design DaVinci 軟體工程總監 Rohit Gupta:「我們很高興能針對最新的Intel Core Ultra處理器為DaVinci Resolves進行先進媒體引擎(advanced media engine)和AI技術優化。憑藉我們深厚的合作夥伴關係和英特爾對創作者社群堅定不移的支持,期待能為最新的Intel Core Ultra 處理器全面優化軟體應用,提升客戶的使用體驗。」 • Bufferzone 技術長 Ran Dubin 博士:「英特爾個人電腦內建 NPU、具備深度學習的能力,顛覆了安全瀏覽解決方案。它有助於降低Cloud AI的成本和隱私問題,同時幫助客戶進一步保護帳戶免於釣魚詐騙威脅。」 • 思科協作AI工程副總裁 Chris Rowen:「 Webex致力於為用戶提供更好的協作體驗,AI在此當中扮演關鍵角色。我們很高興能與英特爾合作,利用Intel ® OpenVINO™工具套件並整合英特爾處理器上的全新NPU,實現全新的媒體AI功能,進而提高Webex視訊會議期間的能源效率和平台反應速度。」 • 訊連科技董事長暨執行長黃肇雄博士:「訊連科技相信 NPU將會是提供用戶全新AI體驗的關鍵。我們正與英特爾在NPU賦能方面密切合作,期許透過整合的AI推論加速有所斬獲。」 • Deep Render 聯合創始人兼執行長 Chri Besenbruch:「Intel Core Ultra 卓越的性能能夠為 AI PC 用戶提供 5 倍卓越的AI-only 視訊壓縮,交付無可比擬的影像品質,相當於家庭網路加速了 5 倍。其NPU 性能讓Deep Render可以在終端用戶裝置上實現快如閃電、高效節能 AI 視訊壓縮。」 • MAGIX 技術長 Hagen Hirchce:「MAGIX 發現大眾很需要能夠編輯影片、同時具備全天電池續航力的強大行動裝置。目前採用英特爾混合架構處理器的新型 PC已取得重要進展,應用程式也大量採用 GPU 來處理嚴苛的媒體工作負載。MAGIX十分肯定英特爾在Intel Core Ultra 處理器中整合 NPU ,邁向更節能的異質運算環境。目前我們正在CPU和GPU上執行優化的AI工作負載,並與英特爾工程團隊一起持續探索NPU的功能,積極尋找讓影片編輯工作流程更節能的方法。我們相信在未來兩年內,AI PC將成為創作者不可或缺的工具。」 • Rewind 共同創辦人兼執行長 Dan Siroker:「Rewind 的願景是賦予人類超能力。為此,我們提供由終端用戶所見、所述與所聞的一切驅動的個人化AI工具。透過英特爾的市場領導地位和深入的技術合作,充分利用全新Intel Core Ultra 處理器的AI功能,將 Rewind 導入 Windows PC。 Rewind很高興能加入AI PC加速計劃,因為我們與英特爾一樣認為AI加速器是PC體驗不可或缺的一部分。」 • Skylum 產品與工程副總裁 Dmytro Mykhalchuk:「Skylum是AI輔助照片編輯的專家,最著名的產品是屢獲殊榮的軟體 Luminar Neo。AI輔助照片編輯的領域需要更多資源:持續提高照片解析度,越來越多的工具走向 ML 處理。英特爾在AI領域、包括CPU 和 GPU 兩方面的各項計畫,以及在所有 Intel 新處理器中加入 NPU,讓我們得以顯著改善創作者的使用體驗。對於 Luminar Neo 內部任務的執行速度來說,不僅帶來正面成效,同時降低了用戶裝置的整體負載。」 • Topaz Labs AI引擎主管 Suraj Raghuraman 博士:「Topaz Labs透過創新的AI照片和影片優化工具,幫助專業創作者製作出絢麗的視覺效果。英特爾全新的Core Ultra系列處理器,利用NPU實現卓越的機器學習效能,同時執行複雜的深度學習模型。Topaz Labs與英特爾將持續開發出劃時代的相片和影片優化軟體,將AI PC帶給每個人。」 • VideoCom.com Inc.產品主管Gareth Reynolds:「我們非常期待英特爾全新的 Meteor Lake 平台;隨著CPU和GPU效能提升,不僅應用程式的品質和回應速度得以改善,AI工作負載也能夠完全卸載給內建的NPU。VideoCom.com Inc.與英特爾一起合作將 NPU 整合到影片處理中,目標是開發其他能夠讓NPU離線執行的AI功能,並期待將新功能介紹給所有用戶。」 • Wondershare Filmora 產品行銷總監 Shearer Wang:「Filmora很高興能夠為我們1億多位用戶帶來全新英特爾處理器驅動的AI功能。藉著Intel Core Ultra處理器橫跨 CPU、GPU以及創新 NPU的全方位 AI 功能,Filmora幫助用戶優化、簡化和解放他們的創作潛能,輕鬆製作出動人的影片。我們期待與英特爾繼續保持密切的合作關係,引領所有創作者投入 AI PC的懷抱。」 • XSplit 執行長 Andreas Hoye:「我們持續與英特爾合作將 NPU 功能整合到 VCam 中,讓商用硬體能夠達到更高規格的視訊品質。其中,將背景分割功能和其他 AI工作負載卸載到 NPU是至關重要的一環。英特爾 NPU 可以執行更大的AI模型,讓即時視訊的背景移除誤差減少 30%,同時顯著降低 CPU 和 GPU 的總體負載。我們與英特爾一樣致力為創作者提供強大新硬體的 AI PC,也希望透過AI PC 加速計劃及各項努力,讓這項技術成為主流。」 • Zoom 硬體合作夥伴負責人 Eric C. Yu:「過去幾年AI技術在視訊會議場景中的應用大幅增長,Zoom非常高興看到英特爾整合了NPU,提供高效節能的AI加速器,卸載圖形和音訊的AI工作負載。英特爾在路線圖中納入 NPU,代表著AI 工作負載的能源效率提升將改善Zoom 體驗;從Meteor Lake 平台開始,未來將有更多的平台投入。」 AI PC Acceleration 計劃是英特爾合作夥伴聯盟 AI Accelerator Initiative 的延伸,後者為 1,000 多家 ISV 合作夥伴提供一套循序漸進的互動方式,幫助構建、優化並布署從邊緣到雲端的 AI 解決方案。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
NVIDIA 擴展機器人平台以因應生成式人工智慧的興起
強大的生成式人工智慧模式、雲端原生 API 和微服務正在走向邊緣。 生成式人工智慧正在將Transformer 模型和大型語言模型的力量帶入幾乎每個產業。如今觸角已伸到接觸邊緣、機器人和物流系統等領域:瑕疵檢測、即時資產跟蹤、自主規劃和導航、人機互動等等。 NVIDIA今天宣布NVIDIA Jetson平台上邊緣人工智慧和機器人技術兩個框架的重大擴展。NVIDIA Isaac ROS機器人框架已經正式推出,接下來將推出 Jetson 上 NVIDIA Metropolis 的擴充。 為了加速人工智慧應用在邊緣的開發和部署,NVIDIA還為Jetson開發人員創建了一個生成式人工智慧練習場(Generative AI Playground),供他們使用最新的開源生成式人工智慧模型。 超過 120 萬開發者和超過 10,000 名客戶選擇了 NVIDIA AI 和 Jetson 平台,其中包括Amazon Web Services、思科、強鹿公司、美敦力、百事公司和西門子。 隨著人工智慧領域的快速發展,解決日益複雜的場景,開發人員在建立邊緣人工智慧應用程式時面臨更長開發週期的挑戰。 對機器人和人工智慧系統重新進行程式設計以滿足不斷變化的環境、生產線和客戶動態的自動化需求需要專業技能,而且非常耗時。 生成式人工智慧提供零樣本學習,即模型能夠識別在之前訓練中未見過的事物的能力,並透過自然語言介面簡化邊緣人工智慧的開發、部署和管理。 生成式人工智慧顯著地提高了人類語言的易用性,以提示和進行模型更改。 這些人工智慧模型可以更靈活地檢測、分割、追蹤、搜尋,甚至重新程式設計任何觸手可及的東西。 這些特性有助於超越傳統的基於卷積神經網路 (convolutional neural network)的模型。 根據ABI Research的資料,生成式人工智慧在2033年將為全球製造業新增105億美元的收入。 NVIDIA嵌入式與邊緣運算部門副總裁Deepu Talla表示:「生成式人工智慧更通用、易用、且準確的特性將顯著的加速人工智慧邊緣的部署。Jetson 上 Metropolis 和 Isaac 框架有史以來最大規模的軟體擴展,結合 Transformer 模型和生成式人工智慧的強大功能,滿足了這一需求。」 NVIDIA Jetson生成式人工智慧練習場為開發人員提供了最佳化的工具和教學,用於部署開源大語言模型(LLM)、擴散模型以互動方式生成令人驚嘆的圖像、視覺語言模型(VLM)和結合了視覺人工智慧和自然語言處理視覺變換器(ViT)提供對場景的全面理解。 開發人員還可以使用 NVIDIA TAO 工具套件為邊緣創建高效、準確的人工智慧模型。 TAO 提供了一個低程式碼介面來微調和最佳化視覺人工智慧模型,包括視覺變換器和視覺基礎模型。現在,開發人員可以自訂和微調像是 NVIDIA NV-DINOv2 等基礎模型或 OpenCLIP 等公開的模型,從而用很少的資料建立高度準確的視覺人工智慧模型。 TAO現在也另外包括了 VisualChangeNet,這是一個基於transformer的瑕疵檢測模型。 NVIDIA Metropolis 讓企業更輕鬆、更具成本效益地採用世界一流的視覺人工智慧驅動的解決方案,以改善關鍵的營運效率和安全問題。這個平台帶來了一系列強大的 API 和微服務,供開發人員快速開發複雜的基於視覺的應用程式。 包括BMW集團、百事公司、克羅格公司、泰森食品、Infosys和西門子在內的1,000 多家公司都正在使用NVIDIA Metropolis 開發者工具,透過視覺人工智慧解決物聯網、感測器處理和營運挑戰,而且採用率正在加快。 這些工具目前已被那些希望建立視覺人工智慧應用程式的人下載了超過 100 萬次。 Metropolis API 和微服務為了讓開發人員可以快速建置和部署可擴展的視覺人工智慧應用程式,NVIDIA Jetson上擴展後的Metropolis API 和微服務將於年底推出。 數百位客戶使用 NVIDIA Isaac 平台開發跨不同領域的高效能機器人解決方案,包括農業、倉庫自動化、最後一哩運送和服務機器人等。 在 ROSCon 2023 上,NVIDIA 宣布透過新版本的 Isaac ROS 和 Isaac Sim 軟體對感知和模擬功能進行重大改進。 Isaac ROS 基於廣泛採用的開源機器人作業系統(Robot Operating System; ROS)構建,為自動化帶來感知,為移動的事物提供眼睛和耳朵。 透過利用 GPU 加速 GEMs 的強大功能(包括視覺慣性里程計、深度感知、3D 場景重建、定位和規劃),機器人開發人員獲得了快速設計適合各種應用機器人解決方案的工具。 最新的 Isaac ROS 2.0 版本已公開發布,使開發人員能夠利用 Jetson 創建高效能機器人解決方案並將其推向市場。 開源機器人基金會(Open Source Robotics Foundation)技術長 Geoff Biggs 表示:「ROS 不斷成長和發展,為整個機器人社群提供開源軟體。隨此版本一起推出的 NVIDIA 全新預構建 ROS 2 軟體套件,將使廣大 NVIDIA Jetson 開發者社群能夠輕鬆使用 ROS 2,從而加速ROS的成長。」 開發可立即上線使用的人工智慧解決方案需要最佳化開發和訓練針對特定用例而定制的人工智慧模型、在平台上導入強大的安全功能、編排應用程式、管理車隊、建立流暢的邊緣到雲的通訊等等。 NVIDIA 宣布推出一系列基於 Metropolis 和 Isaac 框架的精選 AI 參考工作流程,使開發人員能夠快速採用整個工作流程,或選擇性地整合這些工作流程中的各個組件,從而大大減少了開發時間和成本。三個不同的AI工作流程包括:網路影片錄製(NVR)、自動光學檢測(AOI)和自主移動機器人(AMR)。 Tirias Research 首席分析師Jim McGregor表示:「NVIDIA Jetson擁有廣泛且多樣的使用者基礎和合作夥伴生態系統,已經推動了邊緣機器人和人工智慧的革命。隨著應用需求變得越來越複雜,我們需要從根本上轉向能夠簡化並加速邊緣部署創建的平台。 NVIDIA 的這一重大軟體擴展使開發人員能夠獲得新的多感測器模型和生成式人工智慧功能。」 NVIDIA宣佈推出一系列系統服務,這些服務是每個開發人員在構建邊緣人工智慧解決方案時所需的基礎功能。這些服務將簡化整合Jetson平台與開發人員的工作流程,並免除了從頭開始構建時的繁重任務。 預計於年底前推出的NVIDIA JetPack 6,將使AI開發人員不必全面升級Jetson Linux,就能維持運算領先狀態,大大加快開發時間,並讓他們擺脫Jetson Linux依賴性。JetPack 6還將利用與Linux發行合作夥伴的合作,擴大基於Linux的發行版選項,包括Canonical經最佳化和認證的Ubuntu、Wind River Linux、Concurrent Real-Time Redhawk Linux以及各種基於Yocto的發行版。 Jetson 夥伴生態系提供從硬體、人工智慧軟體和應用程式設計服務到感測器、連接和開發者工具的廣泛支援。NVIDIA 合作夥伴網路中的這些創新者,為市場上銷售的眾多產品提供組件和子系統方面發揮了關鍵作用。 JetPack 軟體的最新版本使 Jetson 合作夥伴能夠加快上市時間,並使他們能夠擴大客戶群,以採用更多具有更高效能和功能的人工智慧。 獨立軟體供應商合作夥伴也將能夠擴大其針對Jetson開發的產品。 歡迎報名與參加我們在太平洋時間 2023 年 11 月 7 日星期二上午 9 點舉行的網路研討會,深入探討本文中討論的許多主題,包括用於在 Jetson 上部署 LLM 和 VLM 的加速 API 和量化方法,與使用 TensorRT 最佳化視覺transformers等。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
NVIDIA與鴻海合作建立工廠和系統,推動人工智慧產業革命
NVIDIA 今天宣布與鴻海科技集團合作,加速人工智慧產業革命。 鴻海將整合NVIDIA 的技術來開發新型資料中心驅動廣泛的應用,其中包括製造和檢測工作流程的數位化、人工智慧驅動的電動汽車和機器人平台的開發,以及持續增長的基於語言的生成式人工智慧服務。 NVIDIA 創辦人暨執行長黃仁勳和鴻海集團董事長暨執行長劉揚偉在台北舉辦的鴻海科技日爐邊對談中宣布,雙方合作將從創建基於NVIDIA的加速運算平台的人工智慧工廠開始。人工智慧工廠為一種NVIDIA GPU 運算基礎設施,搭載最新的NVIDIA GH200 Grace Hopper 超級晶片和NVIDIA AI Enterprise軟體,專門用於處理、精煉、將大量資料轉化為有價值的人工智慧模型。 ● 鴻海智慧電動車(Smart EV)將建立於NVIDIA的下一代自動駕駛汽車車隊平台NVIDIA DRIVE Hyperion 9之上,並由其未來的汽車SoC NVIDIA DRIVE Thor驅動。 ● 鴻海智慧製造(Smart Manufacturing)機器人系統將建立於NVIDIA Isaac AMR自主移動機器人平台之上。 ● 鴻海智慧城市(Smart City)將整合NVIDIA Metropolis智慧影像分析平台。 黃仁勳表示:「製造智慧這種全新的製造業已經崛起,而生產這些智慧的資料中心就是人工智慧工廠。作為全球最大的製造商,鴻海具有在全球建立AI工廠的專業知識和規模。我們很高興擴展與鴻海的長達十年的合作,以加速人工智慧工業革命。」 鴻海正在與NVIDIA密切合作,為尋求創建和營運自己的人工智慧工廠的全球客戶群建造大量基於NVIDIA的CPU、GPU和網路技術的系統,並使用 NVIDIA AI Enterprise 軟體進行最佳化。 鴻海用於建構這些客製化設計的關鍵 NVIDIA 技術包括每個主機板配備 8 個 H100 GPU的NVIDIA HGX 參考設計、NVIDIA GH200 超級晶片、NVIDIA OVX 參考設計和 NVIDIA 網路。 借助這些系統,鴻海的客戶可以利用 NVIDIA 加速運算來提供生成式人工智慧服務,並使用模擬來加速工業機器人和自動駕駛汽車等自主機器的訓練。 除了為客戶配備由 NVIDIA 驅動的人工智慧工廠以進行設計和模擬外,鴻海也著眼於建造自己的人工智慧工廠,該工廠將利用 NVIDIA Omniverse、Isaac 和 Metropolis 框架,以滿足電子產業極其嚴格的生產和品質標準。 邊緣人工智慧和模擬的進步得以部署每天可以行駛數英里的自主移動機器人,以及用於組裝組件、塗敷塗層、包裝和執行品質檢查的工業機器人。 具備這些 NVIDIA 平台的人工智慧工廠可讓鴻海在佈建到實體世界之前完成人工智慧訓練、增強工廠工作流程並在虛擬世界中運行大量模擬。端到端模擬機器人和自動化流程為鴻海提供了一條提高營運效率、節省時間和成本的途徑。 鴻海也將向全球汽車製造商提供一系列 NVIDIA DRIVE 解決方案。鴻海目前已是基於 DRIVE Orin 的電子控制單元(ECU)的一級製造商,並在未來擴展到基於 DRIVE Thor 的電子控制單元。 作為代工製造商,鴻海將提供下一代高度自動化和自主且富含人工智慧的電動車,這些電動車採用即將推出的 NVIDIA DRIVE Hyperion 9 平台,其中包括 DRIVE Thor 和最先進的感測器架構。 這將使鴻海及其汽車客戶實現功能安全、可靠、軟體定義汽車的新時代。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
微軟攜手光禾感知為民視打造全台首位 AI 新聞主播 科技結合傳播增添新聞多樣性 「敏熙」播報多元吸睛
生成式 AI 技術顛覆以往使用 AI 的方式,並深入各領域發展出多樣化的創新應用,而媒體產業在此波浪潮下也沒有缺席。相信大家對於在民視主播台上播報國際氣象的「敏熙」主播並不陌生,專攻影像技術的光禾感知以 AIGC(AI Generated Content,人工智慧生成內容)技術,結合微軟 Azure AI 語音服務,為民視新聞打造台灣首位 AI 生成的虛擬電視新聞主播,於六月底正式亮相以來廣受各方好評,更是擄獲無數觀眾的心。 本次合作集結影像、聲音與新聞製播等三方專業技術,由光禾感知生成 AI 虛擬主播影像後,搭配微軟 Azure AI 的語音合成技術產出發音自然、流暢的播報人聲,再借助民視新聞多年新聞製播經驗,以及豐富的新聞播報、訪談節目等高畫質新聞影像資料庫進行形象優化,量身打造專屬於民視的 AI 主播模型。 身為台灣微軟及民視新聞雙邊合作多年的產業夥伴,光禾感知科技執行長王友光指出:「光禾感知 2022 年底開始投入 AI 主播製作,透過大量蒐集照片作為訓練原料,以擴散模型(Diffusion model)為技術基底,訓練出能夠生成動態圖像的模型,完成主播臉孔塑造。很高興此次與台灣微軟攜手促成民視『敏熙』主播的誕生,展現生成式 AI 於影像生成領域無限的技術發展潛力。」 除了外貌,聲音在新聞播報中亦扮演重要角色,微軟 Azure AI 語音服務的 TTS(文字轉語音)及 Viseme 技術即為實現敏熙主播自然且順暢人聲關鍵。不同於傳統如機械音般的文字轉語音服務,Azure AI 語音服務擁有豐富模型,提供 140 種語系以上、超過 400 個近似真人發音的預建神經語音模型供選擇。除了預建模型,Azure AI 語音服務還支援自訂模型,可根據您的需求調整語音的風格、速度、音調等參數,進而生成貼近真人主播具備情緒及抑揚頓挫的語音,展現出結合 AI 與美感的傳播科技成果。 此外,透過 Viseme 技術還能提升虛擬主播嘴型與播報文字精準度。Viseme 技術能夠在說話過程定義臉部及嘴唇、下顎及舌頭等位置,使虛擬主播臉部嘴型與語音的結合呈現更為自然。兩者技術相輔相成不僅能生成嘴型與聲音吻合的 AI 臉部影像,也能進一步實現多國語系主播的可能,敏熙現在已可以進行綜合中文及英文的播報內容。 除了啟用虛擬 AI 主播外,民視也透過相關技術協助即時翻譯、資料搜尋整合與除錯等前期業務,在科技的輔助下增加新聞內容的豐富度。台灣微軟商務事業群總經理李光耀表示:「微軟將持續導入 AI 前瞻技術,延伸生成式 AI 觸角至各產業,實踐智慧創新應用。此次合作成功展現生成式 AI 技術為產業帶來的無限可能,我們也樂見透過電視新聞的傳播,帶動 AI 之於個人及產業的正向影響力。」 作為台灣新聞界專業領航者,民視在新聞製播擁有深厚的經驗及資源,因此能透過大量新聞播報畫面資料訓練 AI 模型,為播報的擬真程度提供絕佳樣本。民視新聞傳播群副總經理胡婉玲分享:「民視不只看到生成式 AI 技術為新聞產業帶來的嶄新機會,也充分評估相關風險並恪守相關法規與新聞倫理,禁止採用 AI 生成之新聞內容,確保所有 AI 虛擬主播的播出內容皆由編輯撰寫並依循既有審核流程,在發展新聞多樣性的同時,也維持高度正確性。」 民視 AI 主播「敏熙」六月上線後,獲得市場及觀眾熱烈迴響,並持續由三方進行播報精準度提升,在聲音方面微軟藉由結合最新 AI 技術而更加擬真的 TTS 及 Viseme 技術不斷優化聲音的呈現,光禾感知則網羅民視豐富且涵蓋中文、英文、台語、客語等語言之 4K 高畫質新聞影像資料庫,持續訓練全新影像模型,呈現細緻的臉部肌肉紋路,確保整體脣形、聲音及肢體語言更加擬真與自然。 目前「敏熙」主要於民視無線台晚間《全球看民視》、民視新聞台晚間六點十二分左右以及午夜新聞播報國際氣象,未來亦將於各時段節目或重點新聞預告播報。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
駕馭生成式AI和主權雲:實現創新與合規之間的平衡
迄今為止,全球已有100多個國家頒佈了資料保護和資料主權法規,使資料主權成為50%的歐洲企業高階主管在選擇雲端廠商時考慮的主要問題。幾乎可以肯定的是,由於必須遵守的歐盟法規數量眾多,大多數企業(84%)將其資料處理的複雜性和資料管理的影響定為「中等」到「較大」。 另一個資料處理領域中必定要討論的是生成式AI。大多數企業員工都在以某種方式使用像GPT-4這樣的大型語言模型(LLM),即使只是出於好奇或為了摸索它的可能性的隨意使用。正如《泰晤士報》所報導的,該技術的盛行迫使一些企業禁止內部使用ChatGPT2 。與此相反的是,埃森哲(Accenture)等企業則呼籲員工「負責任地」使用這項技術。 採用生成式AI的企業,其目標都是為了提高生產力。據估計,各行業40%的工作時間會受到大型語言模型(LLM)的影響;語言任務占到員工總工作時間的62%,而其中65%的時間可通過增強措施和自動化轉化為更具生產力的活動。 而隨著主權雲與生成式AI世界的碰撞,這兩者到底是相互競爭的對手,還是相互輔助的好友,又或是亦敵亦友(假裝是朋友,但在某種程度上又是敵人)。由於生成式AI需要龐大的算力和飛速處理大型資料集的能力,因此公有雲成為了許多生成式AI應用的理想平台。公有雲提供的存取路徑、速度和規模只是一方面,安全、隱私和主權方面的要求同樣至關重要並且必須納入討論,這表示最適合生成式AI的雲不是公有雲,而是私有雲。 英國前首相Tony Blair發現了人們對雲端與AI的擔憂之間存在聯繫。據《每日電訊報》報導,Blair建議英國建立一個「主權」人工智慧(AI)機器人解決公共服務中出現的問題,比如英國國家醫療服務體系(NHS)中出現的問題。 這可能是一個複雜的決定。主權雲與生成式AI之間的關係取決於幾個重要因素,而要找到資料主權、隱私、合規和生成式AI所帶來的收益之間的平衡點,不但需要深思熟慮,而且還可能需要在開箱即用的公有雲生成式AI功能,和主權資料使用限制之間作出權衡。 生成式AI應用可能需要遵守一套法規,例如「一般資料保護規則」(General Data Protection Regulation, GDPR )中的資料保護規定,這部規則為企業負責任地採集、處理和儲存個人資料建立了一個完整全面的框架5。但這只是冰山一角,以權利為基準的個人資料處理方法在各地區、國家和州乃至各行業不斷擴展。美國各州將在2023年開始實施一系列新的資料隱私法,這可能會深入改變個人資料的處理方式。由於基於AI的個人資訊分析甚至生物識別技術已被廣泛應用,美國聯邦貿易委員會等組織正在警惕AI中的偏見,可能對公民個人造成的經濟和法律影響。各地區的法院已經在研究企業、政府機構和行業究竟該如何使用個人資料。 另一方面,主權雲可能需要適應另一套監管框架,以及所納入的資料分類規則,比如Schrems II判決中所述的規定要求資料隱私長需瞭解和評估雲端中儲存的資料,以及其中是否有任何資料被轉移到歐盟以外 ,並確保雲端生成式AI的合規性將增加AI的複雜性、引發相互衝突的需求並增加合規方面的開銷。 但如果採用完善的主權雲戰略,就可以透過以下方式協助克服這些挑戰和複雜性: • 確保符合主權雲所在地的當地法規 • 減少應用和資料集在法律上的不確定性 • 消除因多個管轄區的不同法律而產生的衝突 生成式AI應用可能需要存取個人或專有資料以進行訓練(雖然可以使用合成資料,但效果較差),這會引發與資料主權和隱私相關的風險。儘管主權雲提供了更強有力的資料控制手段來降低非法訪問的風險,但這些控制手段會限制此類生成式AI應用所使用的主權資料的跨境轉移和變現,這可能會減少或在極端情況下徹底消除這些應用的優勢。 儘管當生成式AI連接到主權雲或位於主權雲內時,可能會產生這些以及其他與隱私相關的衝突,但主權雲供應商仍可以構建(或授權使用)與AI相關的服務和工具,促進其基礎架構內生成式AI應用的安全、合規使用。 在使用生成式AI時必須考慮本文中強調的事項,而主權雲提供了一種經過驗證的模式,使企業能夠克服以下方面的挑戰: • 資料保護 • 合規要求 • 安全因素 穩健的主權雲戰略可以透過保證資料駐留、資料安全和確保企業符合當地政府的法規,協助企業以負責任的方式有效使用生成式AI技術。此類戰略需要加入:AI的相容性;AI運行成本、開發AI解決方案所需的資源和技能、主要的顧慮等因素;以及用於驅動AI訓練的資料和由此產生的資料。簡而言之,要使AI合規,就需要Private AI架構將AI的商業效益與企業的實際隱私和合規需求相結合。 多年來,VMware Cloud Service Providers就已經能夠將用於多租戶或獨立Cloud Foundation主權雲的Cloud Director與所支持的NVIDIA AI Enterprise人工智慧軟硬體解決方案組合相結合,提供NVIDIA vGPU即服務。因此,提供AI服務的能力已經存在,但需要投資構建自己的解決方案。 為了推動新一輪AI應用的發展浪潮,為企業提供Private AI並使其成為Sovereign Cloud Providers的潛在解決方案,VMware在Explore Las Vegas上宣佈: • VMware Private AI Foundation攜手NVIDIA為企業提供整合式AI工具,尤其是為受到主權監管的行業。該解決方案借助常用於主權雲中的氣隙式私有雲的VMware Cloud Foundation,將VMware Private AI架構與NVIDIA AI Enterprise軟體和加速運算相結合。這套一站式解決方案將為客戶提供自訂模型和運行生成式AI應用(如聊天機器人、助手、搜索和摘要)所需的基礎架構和軟體。Dell(戴爾)、HPE(慧與)和聯想將為採用NVIDIA技術的VMware Private AI Foundation提供支援。 • VMware Private AI Reference Architecture for Open Source加入了最領先的開源技術,為VMware Cloud Foundation上開源模型的開發和部署提供了一個開放框架。透過與包括Anyscale在內的AI行業主要企業合作,VMware正在將熱門的開源Ray統一運算框架整合到VMware Cloud環境中,以此簡化現有運算基礎架構中AI和Python 工作負載的規模。另外,VMware還與Domino Data Lab和NVIDIA攜手為金融行業的AI/ML部署,提供一個量身定制的統一分析和資料科學平台。 • VMware正在推出VMware AI Ready計畫,旨在將專注於ML、LLM維運、資料工程、AI開發工具和嵌入式AI應用的獨立軟體廠商(ISV)與VMware Private AI Reference Architecture上的驗證和認證資源對接。該計畫預計將於2023年底啟動。 主權雲的核心是資料、控制以及主權受監管行業所需的創新。在日新月異的數位化環境中,保持創新和競爭優勢對企業至關重要。VMware Sovereign Cloud是實現這一目標的理想選擇,其靈活性、可擴展性和敏捷性使企業能夠迅速適應不斷變化的市場環境,為企業注入創新的信心。VMware強大的合作夥伴生態和領先的技術可為你提供推動創新的工具和資源。透過VMware Sovereign Cloud,企業既可以充分利用雲端的強大功能,同時又能保持對資料和基礎架構的控制,進而創造一個踴躍創新、積極競爭、成功機會數不勝數的環境。今天就做出明智的選擇,使用VMware Cloud引領您的企業邁向充滿無限可能的未來。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
最多人點閱
- 「Intel Core Ultra 200S」CPU強勢來襲,史上最強「Intel第15代 研發代號 Arrow Lake」桌上型電腦處理器「台積電 TSMC 神隊友代工」LGA1851腳位「Core Ultra 5 245K/KF、Core Ultra 7 265K/KF、Core Ultra 9 285K處理器 與 Z890主機板」聯袂登場!
- AMD Ryzen 7 8700G實測開箱,Radeon 780M Graphics內顯與Ryzen AI火力加持「次世代1080p 遊戲 處理器」強勢來襲!
- Supermicro SUPERO X13SWA-TF實測開箱,史上最強「8+3+1+1共13相供電」Intel W790「AI加速 四組PCIe 5.0 x16雙插槽顯示卡擴充」 HEDT高階桌機工作站主機板!
- GIGABYTE Server MW83-RP0實測開箱,史上最強「8+3+1+1共13相供電」實戰Intel Xeon w9-3495x為終極效能而生「AI加速 四組PCIe 5.0 x16雙插槽顯示卡擴充」HEDT工作站主機板!
- Intel Xeon W-2400與W-3400處理器完全解密!研發代號Sapphire Rapids-WS與W790晶片組主機板 HEDT高階桌機工作站 LGA4677腳位 強大運算核心 正式登場,史上最強大24核心48執行緒Xeon w7-2495X 56核心112執行緒Xeon w9-3495X強勢來襲!
- AMD Ryzen Threadripper 7000 & Threadripper 7000 PRO處理器完全解密!史上最強HEDT TRX50高階桌機、Workstation WRX90工作站平台 提供最高64核心128執行緒7980X 96核心192執行緒7995WX 具備DDR5 R-DIMM、PCIe 5.0 x16與PCIe Gen 5 SSD超強戰鬥力!
- ASUS Pro WS W790-ACE實測開箱,史上最強「12+1+1共14相供電」Intel Xeon w9-3495X處理器最佳拍檔「AI加速 三組PCIe 5.0 x16雙插槽顯示卡擴充」HEDT工作站主機板!
- Intel Xeon w9-3495X實測開箱,史上最強56核心112執行緒 採用LGA4677腳位 對應W790主機板 次世代 HEDT高階桌機 工作站 處理器重裝上陣!
- 微星MPG B650 EDGE WIFI實測開箱,AMD B650玩家級主機板優質精品 feat. AMD Ryzen 5 8600G/ 7 8700G
- ASUS Pro WS WRX90E-SAGE SE實測開箱,史上最強「32+3+3+3共41相供電」AMD Ryzen Threadripper PRO 7995WX「AI加速 四組PCIe 5.0 x16雙插槽顯示卡擴充」為終極運算效能而生HEDT高階桌機工作站主機板!
- 威剛 ADATA DDR5-4800 256GB R-DIMM 套裝(32GB x8)實測開箱,Intel W790伺服器級工作站主機板「八記憶體通道」PC DIY火力全開評測!
- AMD Ryzen Threadripper 7980X實測開箱,史上最強64核心128執行緒 採用sTR5腳位 對應TRX50、WRX90主機板 次世代 HEDT高階桌機處理器強勢登場!